Clean Engineering, Unstable Measurement: A Preregistered Reliability Failure of Black-Box LLM Observers on Shared Endpoints
黑盒 LLM 观察器在共享端点上的可靠性失败：预注册审计
🧭 LLM-as-Judge 测量可靠性审计
School of Electronic and Electrical Engineering, University of Sheffield · R&D Department, Ranplan Wireless Network Design Ltd. · R&D Department, Cambridge AI+ Ltd.
审计 52,988 次 LLM judge 请求发现同名共享端点重复/次日排名一致性远低于预设门槛，并定位三类失效机制
📌 工作参考价值（4 点）
- 在推荐/广告/搜索链路上用 LLM judge 做离线评估、生成样本筛选或 reward 打分时，别把单次 LLM 排名当稳定信号；先对同一批样本做 byte-identical 重放，计算 Spearman/test-retest 并预设门槛，验证“仪器”再冻结 gate。论文显示约 2% 调用量的 pilot 即可提前暴露不可达门槛。
- 共享 API endpoint 的 LLM judge 不是 frozen instrument，provider metadata（model name、seed、temperature 等）都预测不了稳定性；若评估结果会回灌训练或影响线上 gate，pipeline 需要增加跨时间窗一致性监控，不能只看 schema/hash 等工程指标。
- 减少 exact-permutation/精细化排名读数的放大效应；对商品文案、query 推荐、广告标题等排序/评分任务，建议多次重复测量或改用更粗粒度偏好判断，并意识到真实候选差异可能低于仪器噪声。
- 自部署 batch-invariant kernel 仅在低并发 quiet 时更稳定，并发负载会让不一致放大 8.4 倍；关键评估可以自托管并控制并发，但仍需做重放校准。